Pointing the Way, Hiding the Destination: Practical Private Dense Retrieval at Scale
指路藏终点:大规模实用私有密集检索
🧭 隐私保护向量检索 · 深度哈希短列表
The Chinese University of Hong Kong, Shenzhen · State Key Laboratory of Internet Architecture, Tsinghua University · Beijing University of Posts and Telecommunications · The Chinese University of Hong Kong · Institute of Software, Chinese Academy of Sciences
用可学习深度哈希生成短候选列表,结合加密重排与不经意传输,在保持检索质量的同时将全库密码学搜索成本降至可部署水平
📌 工作参考价值(4 点)
- 在需要隐私保护的 RAG 或私有知识库检索中,可将「可学习深度哈希 shortlist」作为预筛层:只对哈希命中的 200-500 个候选做加密重排,避免全库同态计算,检索质量接近全库向量检索。
- 将连续 embedding 映射为二元哈希码后,不再直接暴露原始向量,配合 directional metric DP 可显著降低 embedding inversion / property inference 泄露;对电商用户行为、广告素材、商品描述等敏感语料检索有直接参考价值。
- 工程上可采用两阶段漏斗:哈希粗筛得到短列表,再用 oblivious key transfer 和加密 reranking 保护具体 query 与最终 item 选择;这比单纯用聚类或 LSH 粗扫更贴合私有检索的隐私与质量平衡。
- 在 10Gbps 网络、数百万文档规模下,该协议额外延迟约 0.73s,适合在线 RAG 服务;但需要额外训练/微调深度哈希模型,并接受候选短列表带来的召回上限。